数据增强是提高深度学习数据效率的必要条件。对于视觉预训练，仅在以前的作品中为图像或文本增强数据。在本文中，我们介绍了Mixgen：视觉表示的联合数据增强学习，以进一步提高数据效率。它生成了新的图像文本对，并通过插值图像和串联文本保留了语义关系。它很简单，可以插入现有管道中。我们在五个下游视觉语言任务中评估了四个架构，包括夹子，vilt，albef和tcl在内的混合带，以显示其多功能性和有效性。例如，在ALBEF预训练中添加Mixgen会导致下游任务的绝对性能改进：图像文本检索（可可微型调整为+6.2％，Flicker30k零射击），视觉接地（+0.9％）（+0.9％） refcoco+），视觉推理（nlvr $^{2} $的+0.9％），视觉询问答案（vqa2.0上的+0.3％）和视觉效果（snli-ve上的+0.4％）。
translated by 谷歌翻译
我们提出了一种用于场景文本视觉问题的新型多模式架构（STVQA），命名为布局感知变压器（LatR）。 STVQA的任务需要模型以推理不同的方式。因此，我们首先调查每种方式的影响，并揭示语言模块的重要性，尤其是在丰富布局信息时。考虑到这一点，我们提出了一种客观预培训计划，只需要文本和空间线索。我们表明，尽管域间隙差距，但仍然对扫描文件进行了对扫描文件的培训方案具有某些优点。扫描的文档易于采购，文本密集并具有各种布局，帮助模型通过捆绑语言和布局信息来学习各种空间线索（例如，下面等等）。与现有方法相比，我们的方法执行无词汇解码，如图所示，概括到超出培训词汇。我们进一步证明Latr改善了对OCR错误的鲁棒性，在STVQA失败的常见原因。另外，通过利用视觉变压器，我们消除了对外部物体检测器的需求。 Latr在多个数据集上赢得最先进的STVQA方法。特别是+ 7.6％的TextVQA，ST-VQA上的10.8％，+ 4.0％在OCR-VQA（所有绝对精度数字）。
translated by 谷歌翻译
人类在整个生命周期中不断学习，通过积累多样化的知识并为未来的任务进行微调。当出现类似目标时，神经网络会遭受灾难性忘记，在学习过程中跨顺序任务跨好任务的数据分布是否不固定。解决此类持续学习（CL）问题的有效方法是使用超网络为目标网络生成任务依赖权重。但是，现有基于超网的方法的持续学习性能受到整个层之间权重的独立性的假设，以维持参数效率。为了解决这一限制，我们提出了一种新颖的方法，该方法使用依赖关系保留超网络来为目标网络生成权重，同时还保持参数效率。我们建议使用基于复发的神经网络（RNN）的超网络，该网络可以有效地生成层权重，同时允许在它们的依赖关系中。此外，我们为基于RNN的超网络提出了新颖的正则化和网络增长技术，以进一步提高持续的学习绩效。为了证明所提出的方法的有效性，我们对几个图像分类持续学习任务和设置进行了实验。我们发现，基于RNN HyperNetworks的建议方法在所有这些CL设置和任务中都优于基准。
translated by 谷歌翻译